В соцсетях набирает популярность новый флешмоб: люди публично делятся фотографиями, на которых им 21 год. С одной стороны, флешмоб довольно безобидный, а с другой — в теории несет риски для пользователей. И вот почему.

🤖 Обучение ИИ

Тексты, фотографии, аудиозаписи и видео, опубликованные в социальных сетях, часто применяются для обучения нейросетей. При этом без согласия авторов.

На имеющейся базе фотографий из флешмоба (где человек юн и постарше) нейросеть сможет обучиться находить черты старения, а после — генерировать фото любого человека в любом возрасте.

🎞 Как эту технологию смогут использовать в дальнейшем

Несколькими примерами поделился Максим Митрофанов, специалист отдела перспективных технологий Positive Technologies:

• Злоумышленники смогут создавать дипфейки ваших знакомых, руководителей или родственников на основе фотографий и видео, где человек заметно моложе. Его искусственно состарят, чтобы манипулировать вами или вымогать информацию по видеосвязи.

В 2022 году, руководствуясь концепцией результативной кибербезопасности, Positive Technologies определила три недопустимых для своего бизнеса события: хищение денежных средств, кражу конфиденциальной информации и внедрение вредоносного кода в продукты.

💡Наступление недопустимого события в результате кибератаки делает невозможным достижение операционных и (или) стратегических целей компании или приводит к значительному нарушению ее основной деятельности.

В том же году Positive Technologies стала первой компанией, которая решилась привлечь белых хакеров для поиска способов реализации недопустимых событий и запустила багбаунти-программу Positive Dream Hunting. Мы предложили награду в 10 млн рублей тому, кто сможет украсть деньги со счетов компании. В 2023 году сумма утроилась. До сих исполнить сценарий полностью никому не удалось.

Сегодня же мы запускаем второе недопустимое событие: багхантеры попробуют внедрить условно вредоносный код (закладку) в один из продуктов Positive Technologies. И за реализацию этого сценария мы готовы заплатить 60 млн рублей. Помимо этого, мы увеличиваем выплату за реализацию первого недопустимого события также до 60 млн рублей.

Перевод на малоизученные языки позволяет обходить ограничения безопасности OpenAI.

О важности фильтров безопасности

Фильтры безопасности — необходимый элемент чат-ботов с искусственным интеллектом (ИИ), который помогает предотвратить распространение вредного или незаконного контента. Без этих мер безопасности чат-боты, такие как ChatGPT, потенциально могут делиться с пользователями опасной информацией, начиная от теорий заговора и заканчивая инструкциями по созданию взрывных устройств. Разработчики обычно реализуют фильтры как для входных, так и для выходных действий, гарантируя, что ИИ адекватно отреагирует на запрос, что позволит избежать вредных обсуждений.

Ахиллесова пята ИИ-полиглота

ChatGPT от Open AI умеет говорить на многих языках, что сыграло с ним злую шутку. Малоизученные языки оказались слабым местом популярного чат-бота, поставив под угрозу безопасность выдаваемого пользователям контента. 

Ученые из Университета Брауна в США выяснили, что ограничения безопасности, предотвращающие выдачу вредоносного текста нейросетью GPT-4 от Open AI, можно легко обойти. Если перевести запросы на редко используемые языки, такие как зулу, шотландский гэльский или хмонг, ChatGPT с радостью расскажет, как воровать в магазине или поделится рецептом изготовления взрывчатых веществ.

В 2023 году первый киберфестиваль PHDays посетило в общей сложности 55 тысяч человек, еще около 100 тысяч зрителей следило за мероприятием онлайн. В этот раз мы сделаем киберфестиваль еще масштабнее и с 23 по 26 мая превратим спортивный комплекс «Лужники» в настоящую киберарену.

🎉 Открытую часть киберфестиваля смогут посетить все желающие: здесь мы возведем целый мегаполис с интерактивными образовательными инсталляциями, которые расскажут о цифровом мире, а также помогут в игровой форме прокачать киберграмотность.

🤟 В течение четырех дней более 250 спикеров расскажут об интересных кибератаках и способах им противостоять, а представители министерств и ведомств, топ-менеджеры компаний и лучшие эксперты индустрии обсудят основополагающие вопросы информационной безопасности.

🥊 Традиционно на PHDays развернется кибербитва Standoff между командами атакующих и защитников. Вы сможете своими глазами увидеть последствия хакерских атак на инфраструктуру компаний, вплоть до недопустимых событий в самых разных отраслях экономики.

Дефицит кадров в нашей отрасли — одна из главных проблем российского бизнеса в условиях стремительно растущего числа киберугроз. Чтобы восполнить кадровый голод, мы решили объединить многолетнюю экспертизу наших компаний в области эффективного противодействия хакерским атакам и запустить обучающие программы по кибербезопасности на базе Центрального университета.

💬 «Основная задача, которую мы решаем, запуская совместные образовательные программы с Тинькофф, — объединить свой визионерский опыт и сформировать новую профессиональную школу, которая позволит снизить существующий кадровый голод и в перспективе даст отрасли постоянно восполняемый кадровый ресурс, с экспертизой, актуальной и реально необходимой в каждый момент времени», — рассказал Денис Баранов, генеральный директор Positive Technologies.

К программам будут привлекаться эксперты разных технологических компаний, что позволит слушателям получить максимально широкий спектр практических навыков.

👀 Первым в серии образовательных программ 16 февраля стартует курс по подготовке специалистов центров противодействия киберугрозам — он рассчитан на студентов последних курсов направлений IT и ИБ, которые проходили стажировки или имеют небольшой опыт работы в сфере кибербезопасности.

Стать первым техногигантом из России в области кибербезопасности на международном рынке. Об этом на форуме «Россия зовет!» рассказал Денис Баранов, генеральный директор Positive Technologies.

И сейчас в компании есть все, для того чтобы эта мечта реализовалась: и люди, создающие продукты международного уровня, которые показали свою результативность на практике, и экспертиза, накопленная нами более чем за 20 лет работы.

💬 «Мы хотим бодаться с CrowdStrike, c Palo Alto, вынести подразделения компаний Check Point и Cisco. Если у тебя нет международных амбиций, то и люди в компании собираются слабее. А если ты набираешь сильных людей, то международные амбиции необходимы», — рассказал Денис.

Выход на новые рынки в странах Юго-Восточной Азии, Персидского залива, Африки и Латинской Америки станет одним из факторов роста компании в предстоящий период. Наша цель на ближайшие несколько лет — довести долю зарубежного бизнеса, в общих показателях до 10% от российского бизнеса, который растет существенно быстрее отечественного рынка кибербезопасности.

Друзья! Традиционно мы подводим итоги года в несколько этапов и сегодня представляем вам предварительные результаты деятельности Positive Technologies за 2023 год.

 ↗️ Исходя из текущих управленческих данных, объем отгрузок вырос до 26 млрд рублей

Итоговое значение фактически оплаченных отгрузок (до 31 марта) составит от 25 до 26 млрд рублей, ожидаемый консенсус-прогноз менеджмента — 25,3 млрд рублей. Это на 75% выше по сравнению с 2022 годом. Наибольший вклад в результат внесли флагманские продукты: MaxPatrol SIEM, MaxPatrol VM и PT Network Attack Discovery.

Ожидаемые результаты — в рамках прогноза, озвученного в ноябре 2023, — от 22,5 до 27,5 млрд руб.

🎯 Мы ставим задачу продолжить масштабирование бизнеса, усиливая присутствие в ключевых сегментах и обеспечивая динамичное развитие за счет выхода в новые технологические и географические ниши. Уже сейчас наш бизнес демонстрирует рост, превышающий рыночную динамику более чем в 2 раза.

💬 «Мы продолжаем уверенно идти вперед: запустили коммерческие продажи метапродукта MaxPatrol O2 и решения MaxPatrol EDR, видим большую заинтересованность клиентов в нашем новом продукте PT NGFW.

В конце 2009 и начале 2010 года на иранском заводе по обогащению урана в Натанзе произошло странное событие: за короткий период было демонтировано и заменено около тысячи центрифуг. Хотя поломки центрифуг на предприятии были обычным делом, в данном случае масштаб замены оказался настолько велик, что заставил специалистов задуматься о возможности саботажа.

По итогам расследования обнаружились убедительные признаки диверсии. Однако, к удивлению многих, виновником разрушений стала не физическая деятельность человека, а вирус Stuxnet, поразивший компьютерные системы центра по обогащению урана.



Кибердиверсант на миллиард

Stuxnet отличался особой скрытностью и коварством, став кибердиверсантом высочайшего уровня. Эта вредоносная программа с филигранной точностью изменяла скорость вращения центрифуг. Вирус мастерски обходил системы защиты от резких колебаний частоты, постепенно дестабилизировал работу машин и выводил их из строя. В результате, вредонос оставался незамеченным до тех пор, пока количество поврежденных центрифуг не приблизилось к тысяче и не вызвало подозрений специалистов. По оценкам экспертов, стоимость разработки вредоносного кода Stuxnet превысила миллиард долларов.

⚙️ В Positive Technologies есть отдел по исследованию безопасности аппаратных решений: наши эксперты ищут уязвимости в современных микроконтроллерах и других вычислительных средствах, чтобы сделать их более защищенными.

Например, в прошлом году наши специалисты обнаружили уязвимость в умных колонках нескольких производителей, позволяющую при физическом доступе захватить устройство. Подробнее об этом мы расскажем немного позднее.

Еще эксперты Positive Technologies могут ответить на базовые вопросы о физической защищенности устройств. Например, во время холодов многие задумываются, как правильно эксплуатировать ноутбуки, чтобы они не превратились в «кирпичи» 🥶

Резкая смена температуры при выходе из теплого помещения на мороз и наоборот может привести к конденсации влаги и вызвать короткое замыкание. Современные устройства защищены от этого, но механическое трение и удары приводят к сколам защитного покрытия, обнажая контакты, которые изначально были изолированы.

Аккумуляторы Li-ion и Li-Pol также не любят перегрева и переохлаждения: под длительным воздействием низких температур они стремительно теряют заряд.

В представлении многих людей сотовые операторы оказывают пользователям только услуги связи. Однако так было много лет назад, сейчас же эти компании развились в крупные многофункциональные бизнесы. Вся их инфраструктура и сервисы, которыми пользуются миллионы клиентов, находятся в облаках, что позволяет повысить эффективность бизнеса.

🤔 В новом выпуске «Цифрового слова» управляющий директор Positive Technologies Владимир Заполянский и журналист «РБК» Аркадий Глушенков разобрали, как устроено «телеком-облако» на базе beeline cloud и как обстоят дела с его кибербезопасностью.

Смотрите выпуск целиком на сайте «РБК».

P. S. Мы не отстаем от технологических трендов и в прошлом году представили свой первый облачный продукт для защиты веб-приложений — PT Cloud Application Firewall. В ближайшие полтора-два года наша линейка облачных продуктов дополнится всеми технологиями защиты приложений.